www.hapeek.co.il אותות אקראיים 44 סיכום הקורס עדכון אחרון: //9
תוכן עניינים תוכן עניינים... חזרה על הסתברות...3 משתנים אקראיים... 4 וקטור אקראי... 6 וקטור אקראי גאוסי...7 משתנים אקראיים ווקטורים אקראיים... 8 הגדרות בסיסיות...8 העתקות לינאריות של ו"א... וקטורים אקראיים גאוסיים... 3 שערוך... 4 שערוך אופטימלי... 4 שערוך ליניארי... 4 המקרה הגאוסי... 4 עיקרון ההשלכה... 5 תהליכים אקראיים בזמן בדיד... 6 שרשראות מרקוב... 7 תהליכים אקראיים בזמן רציף... מומנטים של תהליך אקראי... מעבר תהליכים אקראיים במערכות לינאריות... 3 מעבר ת"א כללי במערכת גרעין... 3 מעבר ת"א סמ"ר דרך מערכת ליניארית קבועה בזמן... 3 צפיפות הספק ספקטרלית... 5 סינון לינארי אופטימלי... 6 רעשים... 9 רעשים תרמים... 3 רעש דיודה Noise)...(Sho 3 נספחים... 34 טורי טיילור ידועים... 34 זהויות טריגונומטריות... 34 התמרת פורייה בזמן רציף... 35 התמרת... Z 37 התמרת פורייה בזמן בדיד... 4 44 אותות אקראיים, סיכום הקורס. אבי בנדל..www.hapeek.co.il
3 חזרה על הסתברות C C C C A k Ak A k Ak k k k k { A B} P{ A B} P P{ B} P { } { } { A P A B P B A } P{ B} P P P BΩ { A} { A B} { B} חוקי דה-מורגן: הגדרה הסתברות מותנית נוסחת בייס ) :(Bayes נוסחת ההסתברות הכוללת: הגדרה חוסר תלות סטטיסטית מאורעות, ABיקראו בת"ס (בלתי-תלויים סטטיסטית) כאשר: P{ A B} P{ A} P{ B} הערות q p כאשר גדול, ו p קטן אזי ניתן לקרב Bi( p, ) Pois( p) Pois( λ) + Pois( λ) Pois( λ + λ) ( µ ) משתנים אקראיים בדידים מוכרים: כינוי; הסבר ברנולי ; הצלחה בניסוי סימון פונקצית הסתברות תוחלת שונות (σ ) pq pq q p λ p p p λ µ p i i p, q, k k pq k k,,,..., k pq k,,3,... k λλ e k! k,,,...! xi pi x! x! i Ber( p) Bi( p, ) Geom( p) Pois( λ) Mul( p, ) בינומי; k הצלחות מתוך ניסויים גיאומטרית; k כשלונות עד הצלחה ראשונה בניסויים פואסונית מולטי-נומית 44 אותות אקראיים, סיכום הקורס. אבי בנדל..www.hapeek.co.il
4 m תוחלת ( µ ) משתנים אקראיים רציפים מוכרים: כינוי מעריכית סימון שונות (σ ) הערות k k! k λ m ( k )!! k m k +, µσ ~ N ו λ σ λ µ פונקצית צפיפות λx λe, x>, x λ> e π e πσ x x µ σ Expλ N (,) (, ) N µσ גאוסיאנית (נורמאלית ( סטנדרטית גאוסיאנית (נורמאלית) כללית עבור,) N( Z ~ מתקיים: b µ P( b) P Z σ ( b a) r λ b+ a r λ, x [ ab, ] b a, x [ ab, ] r λ λx r x e ( r )! Uab [, ] Gamma( r, λ) Γ( r, λ) אחידה גאמה r פעמים קונבולוציה של ) ( Expλ עם עצמו d F, x P x f x F x dx משתנים אקראיים פונקצית התפלגות: צפיפות של סכום משתנים אקראיים היא קונבולוציה בין הצפיפויות שלהם: f x f u * f v f u f x udu () U+ V U V U V Γ ( r, λ) +Γ ( s, λ) Γ ( r+ s, λ) Pois( λ) + Pois( λ) Pois( λ + λ) Bi( p, ) + Bi( mp, ) Bi( + mp, ) ~ Geom( p) P( > + k > ) P( > k) תכונות: תכונת חוסר הזיכרון: ~ Exp( λ) P( > s+ > ) P( > s) התוחלת הגדרה תוחלת תוחלת של משתנה אקראי בדיד EN [ ] p E [ ] x f ( x) dx N תוחלת של משתנה אקראי רציף 44 אותות אקראיים, סיכום הקורס. אבי בנדל..www.hapeek.co.il
5 E[ f( N) ] f p [ ] Eh x הרחבת המושג: תוחלת של פונקציה של משתנה: עבור משתנה אקראי בדיד ופונקציה (x )f: N :h( x) h x f x dx עבור משתנה אקראי רציף ופונקציה תכונות התוחלת ותוצאות נוספות,a קבועים דטרמיניסטים: ליניאריות: עבור b. Ea [ + by] ae [ ] + bey [ ] נוסחת התוחלת הכוללת:. C C EA [ ] EA [ BP ] ( B) + EA B P( B ) משפט ההחלקה:. 3 E [ ] EE [ Y] אם, Y בלתי תלויים (או אפילו רק חסרי קורלציה), אז. 4 EY [ ] E [ ] EY [ ] לכל מ"א : 5. E [ ] P{ < x} dx ( F ( x) ) dx k k m k E x f x dx :Z ~ N, σ הגדרה מומנט מומנטים של σ 3... ( ), k σ!!, k EZ [ ], k+, k+ הגדרה שונות var σ E ( E [ ]) E ( E [ ]) תכונות השונות, כאשר c קבוע דטרמיניסטי (לא אקראי): var() c var( c) c var var( + Y) var+ cov ( Y, ) + vary σ+ σy+ σy הגדרה סטיית התקן σ var הגדרה פונקציה יוצרת מומנטים (פונקציה אופיינית) s ( k () ) k M s Ee M () E m P k אי שוויון צ'בישב: σ µ > b, P µ > aσ b a אי שוויון ינסן: Eh h E { } { } [ ] ( [ ]) 44 אותות אקראיים, סיכום הקורס. אבי בנדל..www.hapeek.co.il
6 וקטור אקראי הגדרה וקטור אקראי וקטור אקראי ממימד הוא וקטור אשר כל רכיביו הם משתנים אקראיים, ומסומן: (,,..., ) מצפיפות משותפת של שני משתנים, ניתן לחשב את פונקצית הצפיפות השולית (של אחד המשתנים): Y f ( x) f ( xydy, ) Y f ( xy, ) f ( x) f ( y) Y Y ( Y, ) אי תלות קיימת אם"ם אי תלות בין רכיבי וקטור לא יכולה להתקיים אם התמך של ), xy f ( לא מלבני. f Y xy, f x fy ( x y) fy ( y x) f ( y) Bayes f ( y) Y f ( x) f ( x y) f ( ydy ) Y Y Y התפלגות מותנית: נוסחת הצפיפות הכוללת: שונות בין שני משתנים אקראיים (קו-ווריאנס): σy cov ( Y, ) E ( E [ ])( Y EY [ ]) EY [ ] EEY [ ] [ ],a קבועים דטרמיניסטים: תכונות הקווריאנס, עבור b cov (, ) varσ cov ( + ay, ) cov ( Y, ) cov ( a+ by, ) a cov ( Y, ) ρ Y ρ σy, ρy σ σ Y ρ ρ Y, Y, siga ρ ay, Y, ρ ρ + cy, Y, קורלציה (מקדם המתאם): תכונות: 44 אותות אקראיים, סיכום הקורס. אבי בנדל..www.hapeek.co.il
7 וקטור אקראי גאוסי, הצפיפות המשותפת היא עבור וקטור אקראי גאוסי כללי exp{ ( )} f x C x µ Σ x µ כאשר µ הוא וקטור התוחלות, ו Σ מטריצת הקווריאנס (תמיד סימטרית). ועבור מקרה פרטי של שלושה משתנים: σ σy σ Z x µ fyz,, ( xyz,, ) C exp ( x µ y µ Y z µ Z) σy σy σ YZ y µ Y σ z µ Z Z σyz σ Z, הקבוע C הוא בהינתן k מימד הוקטור C exp{ µ Σ µ k } ( π) Σ בעזרת Y חזאים החזאי (משערך) האופטמלי של (פונקציה של ): Yˆ EY [ ] op החזאי (משערך) הליניארי האופטמלי של Y בעזרת (פונקציה ליניארית של ): cov ( Y, ) Y ˆli op ( E ) + EY σ במשפחה הגאוסית, משתנים בלתי מתואמים הם גם בלתי תלויים. במשפחה הגאוסית, החזאי האופטמלי הוא החזאי הליניארי האופטמלי., S אזי לכל i :( WLLN WeakLawofLargeNumbers i. µ נסמן החוק החלש של המספרים הגדולים ) יהיו,,..., N משתנים אקראיים מפולגים באופן זהה ובת"ל IID ), בעלי תוחלת Idepede Ideically Disribued ) S limp µ > ε limf x δ ( x µ, אזי ) S :ε> בעצם, חוק זה אומר כי אם נגדיר משפט הגבול המרכזי ) Limiheorem :( CL Ceral, S אזי i i µ ושונות σ. נסמן יהיו,,..., N משתנים אקראיים מפולגים באופן זהה ובת"ל IID ), בעלי תוחלת Idepede Ideically Disribued ) S µ limp a Φ( a) σ.n( כאשר Φ פונקצית ההתפלגות של (, 44 אותות אקראיים, סיכום הקורס. אבי בנדל..www.hapeek.co.il
משתנים אקראיים ווקטורים אקראיים 8 הגדרות בסיסיות ההגדרה הכללית של קווריאנס, בין שני וקטורים (אולי מנוונים, כלומר אחד מהם או שניהם אולי סקלר): cov ( Y, ) E ( E)( Y EY) : Y ( YY,,..., קווריאנס בין משתנה אקראי ווקטור אקראי ) Y cov ( Y, ) E ( E)( Y EY) E ( E)( Y EY Y EY Y EY ) ( cov ( Y, ) cov ( Y, ) cov ( Y, ) ) Y EY cov ( Y, ) Y EY cov ( Y, ) cov ( Y, ) E( Y EY)( E) E ( E) Y EY cov ( Y, ) : Y ( YY,,..., Y ) ווקטור אקראי (,,..., קווריאנס בין ווקטור אקראי ) m E E cov ( Y, ) E ( E)( Y EY) E ( Y EY Y EY Y EY) m E m ( E)( Y EY) ( m Em)( Y EY) m ρ Y, מקדם קורלציה (מקדם מתאם) בין שני משתנים אקראיים, :Y cov ( Y, ), ρ var vary : (,,..., מטריצת המומנטים מסדר שני של וקטור אקראי ) [ ] [ ] E E E E [ ] E E [ ] E E ( ) E [ ] E 44 אותות אקראיים, סיכום הקורס. אבי בנדל..www.hapeek.co.il
9 : (,,..., ) וקטור אקראי Λשל מטריצת הקווריאנס cov (, ) var E ( E)( E) E E E ( E E E) E ( E) ( E)( E) ( E)( E) ( E)( E) ( E) E ( E)( E) ( E ) E( E) E( E)( E) E( E)( E) E ( E)( E) E ( E) E ( E)( E) E ( E) var cov (, ) cov (, ) cov (, ) var cov (, ) var הגדרה אי תלות סטטיסטית, יקראו בת"ס (בלתי תלויים סטטיסטית) אם"ם אחד מהתנאים הבאים מתקיימים: משתנים אקראיים Y ; FY, ( αβ, ) F ( α) FY. לכל, αβ מתקיים β) (. לכל, AB R מתקיים Y B} ;P{ AY, B} P{ A} P{. E[ f gy ] E[ f EgY.3 לכל שתי פונקציות, fg מתקיים )] ( הגדרה אי תלות ליניארית משתנים אקראיים, יקראו בת"ל (בלתי תלויים ליניארית), או חסרי קורלציה כאשר: Y cov ( Y, ) EY EEY. ρ Y, :P{ B} כאשר,B במאורע A { A B} P{ A B} P P{ B} במקרה זה, גם מקדם הקורלציה יתאפס, כלומר הגדרה הסתברות מותנית הסתברות מותנית של מאורע 44 אותות אקראיים, סיכום הקורס. אבי בנדל..www.hapeek.co.il
P { } { } { A P A B P B A } P{ B} (Bayes) נוסחת בייס נוסחת בייס המתאימה f x fy ( x y) fy ( y x) fy( y) P{ x} P{ x Y y} P{ Y y x} P{ Y y} fy ( y x) P{ x Y y} P{ x} f ( y) Y Y רציף בדיד רציף רציף בדיד בדיד הגדרה התפלגות מותנית ההתפלגות המותנית של משתנה אקראי בהנתן משתנה אקראי Y: עבור Y בדיד: P{ xy, y} FY ( x y) P{ x Y y} P{ Y y} עבור Y רציף: P{ xy, Y y+ ε} FY ( x y) lim P{ x y Y y+ ε} lim + + ε ε P{ y Y y+ ε} הגדרה צפיפות מותנית אם קיימת פונקציה F fy כך ש ( y x) y y F ( y x) f ( θ x) dθ Y Y. בהינתן Y הינה הצפיפות המותנית של fy אומרים ש- x) ( y כמו כן, הפונקציה (x f ( y מקיימת את חוק בייס: f ( y x) Y f ( xy, ) Y, f x Y Y הגדרה תוחלת מותנית אם קיים פילוג סגולי מותנה (x f ( y אזי באופן דומה להגדרת התוחלת: EY [ x] yfy ( y x) dy A, P{ A}, P{ A} הגדרה פונקצית האינדיקטור עבור המאורע A נגדיר E[ ] P{ A} ואז A 44 אותות אקראיים, סיכום הקורס. אבי בנדל..www.hapeek.co.il
E[ A לכל מאורע Aולכל מ"א, מתקיים } ] P{ A. EY [ ] c, E [ Y] E [ ] קבוע דטרמיניסטי (לא אקראי)) אז c ) Y אם c. EaY [ + bz ] aey [ ] + bez [ ] דטרמיניסטים אזי a, לינאריות: אם b. EY [ β] EZ [ [β אזי Y Z מ"א המקיימים,Y אם Z. Eh [ ] h אם, ghפונקציות כלשהן אזי ]. Eg [ h( Y, ) ] g Eh [ ( Y, ) אם, Yמ"א בת"ס אזי ] [ EY. EY [ ]. EY [ ] EEY [ ] משפט ההחלקה: משפט ההחלקה המוכלל: ], [ EEYZY E [ Y] Eg [ h( Y, )] EEg [ h( Y, ) ] Eg Eh ( Y, ) { } מ"א,iid אזי i אם i s E i i s i טענות...3.4.5.6.7.8.9... f x ϕ Y אזי g.g() אם ) ( fy( y) f x xgx : yg ' x x g ( y) g( x) y ( wz, ) h( xy, ), g( xy, ) fzw, ( zw, ) טרנספורמציה של משתנה אקראי יהי מ"א עם פונקצית צפיפות( x fופונקציה ( 44 אותות אקראיים, סיכום הקורס. אבי בנדל..www.hapeek.co.il. כאשר הסכימה היא על כל x המקיימים טרנספורמציה של וקטור אקראי יהי וקטור אקראי ), Y ( ותהי הטרנספורמציה f ( xy, ) Y, z gxy (, ) J x szw (, ) ( xy, ): w hxy (, ) y zw (, ).( xy, ) s( zw, ), ( zw, ) J( xy, ) אזי מתקיים: קיימת הטרנספורמציה ההפוכה Z Z Y W W Y היעקוביאן הוא: כאשר. הגדרה פונקציה אופיינית של משתנה אקראי (פונקציה יוצרת מומנטים) יהי משתנה אקראי, אזי הפונקציה האופיינית שלו היא j jx () Ee e f x dx. j כאשר נשים לב שהפונקציה האופיינית אינה אלא התמרת פורייה של פונקצית הצפיפות משתנה אקראי פונקציה אופיינית j ( e ) ϕ () e λ ~ Pois( λ) j ϕ () e µ σ ~ N µσ,.
העתקות לינאריות של ו"א נביט במערכת הפשוטה הבאה: A Σ Y A+ b b התכונות המתקבלות של אות המוצא תכונה תוחלת שונות יציאה EY AE+ b כניסה E Λ E ϕ ν Λ AΛ A Y EYY AE A + AE b + b E A + bb b ϕ ( ν) ϕ ν ( A ) Y מומנט שני פונקציה אופיינית U המטריצה מתקיים.xCx x תקרא אי-שלילית מוגדרת אם לכל C, C UΛU כאשר Λ מטריצת הע"ע האלכסונית ו. U U מטריצה סימטרית למטריצה C יש פירוק לע"ע לפי: היוניטרית המלכסת, המקיימת טענות.. AY. Λ Y נחפש מטריצה דטרמיניסטית. Λ I תקיים הלבנה (De-correlaio) יהי וקטור אקראי Y בעל מטריצת קווריאנס חסרי קורלציה, כלומר מטריצת הקווריאנס של הפתרון המתקבל הוא A כך שאברי יהיו AΛ U. Λ Y כאשר U המטריצה היוניטרית המלכסנת את 44 אותות אקראיים, סיכום הקורס. אבי בנדל..www.hapeek.co.il
3 ראשית, כמה תוצאות מעניינות עבור מ"א גאוסים. אם אזי ~ N, σ וקטורים אקראיים גאוסיים σ 3... ( ), k σ!!, k E [ ], k+, k+ E 3E 4, µσ ~ N אזי עבור 4 משתנים גאוסים,,, YZW בעלי תוחלת : EYZW [ ] EY [ ] EZW [ ] + EZEYW [ ] [ ] + EW [ ] EYZ [ ] הגדרה וקטור אקראי גאוסי (וא"ג) וקטור אקראי ) שהפונקציה (,,..., האופיינית שלו היא מהצורה. ϕ ( ν) j e µ ν ν Λ ν E, var Λ ייקרא וקטור אקראי גאוסי, כאשר נאמר כי,,..., הם גאוסים במשותף. µ אם Ab, f exp x x µ Λ x µ ( π) Λ אם Λ לא סינגולרית ממימד אז { } ~ N ( µλ, ) נסמן את הוקטור האקראי הגאוסי כך: הוא וא"ג אמ"ם כל צירוף של איבריו הוא משתנה אקראי גאוסי. (,,..., ו"א ) כל צירוף ליניארי של רכיבי וא"ג הוא משתנה אקראי גאוסי. Y הוא בעצמו גאוסי. בהינתן וא"ג, אזי חוק הפילוג המותנה של אם A+ Y וא"ג, כאשר כל צירוף ליניארי של וא"ג הוא גם וא"ג. כלומר אם וא"ג אזי גם b דטרמיניסטים. נניח ש- וא"ג שרכיביו בת"ל בזוגות. לפיכך מתקיים ) k : Cov (, ולכן המטריצה Λ תהיה אלכסונית. ונקבל { jmν νλ } k N N N N N ϕ( ν) exp j mν νλ kν k exp j mν νλ k N exp ϕ ( ν ) מסקנה: עבור משתנים גאוסים במשותף, אי תלות לינארית שקולה לאי תלות סטטיסטית. Z, וא"ג שרכיביו ב"ת (הלבנה). DY ניתן לקבל ע"י העתקה לינארית Y אם וא"ג ו- A Λ DΛD אלכסונית. z Y N Λ Y המטריצה אם D היא מטריצה מלכסנת של, Y גאוסים במשותף, אזי כלומר, Y), Var( כלומר קבוע. c צירוף ליניארי של משתנים אקראיים גאוסיים הינה משתנה אקראי גאוסי רק כאשר המשתנים בת"ס אם רכיביו של ו"א הינם כולם מ"א גאוסים והם בת"ס, אזי זהו וא"ג. כלומר, מ"א גאוסים בת"ס הם גאוסים במשותף. נזכיר כי מ"א גאוסים במשותף אינים חייבים להיות בת"ס. טענות...3.4.5.6.7.8.9 44 אותות אקראיים, סיכום הקורס. אבי בנדל..www.hapeek.co.il
. (,,..., ) שערוך 4 שערוך אופטימלי יהי Y משתנה אקראי. נבצע מדידות אקראיות ונשים תוצאות אלו בוקטור אקראי ממדידות אלו נשערך את Y. אם משערך כללי כלשהו הוא ϕ, אזי שגיאת השערוך היא ε Y ϕ והשגיאה הריבועית הממוצעת היא E ε E ( Y ϕ ) אנו נחפש משערך אופטימלי כזה שיביא למינימום את השגיאה הריבועית הממוצעת. מסתבר שלא מסובך למצוא משערך כזה, נסמן אותו ˆY או והוא נתון ע"י הביטוי:,Yˆop Yˆ Yˆ EY [ ] ולכן אנו מסתפקים בחישוב משערך ליניארי (אנו עדיין מעוניינים לשערך ). המערך הליניארי (,,..., ) מדידות הנמצאות בוקטור האקראי מתוך Y ϕ המביא למינימום את שגיאת li op op α + b i i i שערוך ליניארי בד"כ קשה לחשב את המשערך האופטימלי, את המשתנה האקראי האופטימלי הוא המשערך הליניארי, כלומר מהצורה השערוך הריבועית li E ε E ( Y ϕ ) op המשערך הליניארי האופטימלי נתון ע"י: ˆli Yop EY+ cov ( Y, ) Λ E כאשר cov ( Y, ) cov ( Y, ) cov ( Y, ) ( ) ומטריצת הקווריאנס של וקטור היא: σ σ, σ, σ, σ Λ var σ, σ Λ סינגולרית, אזי ישנה תלות בין המדידות ולכן ניתן לשערך ללא המדידות התלויות אם מתקבלת מטריצה במדידות אחרות. נזכיר כי במקרה הסקלרי, המשערך האופטימלי של המשתנה האקראי Y בהינתן המשתנה האקראי הינו Yˆ op EY [ ] והמשערך הלינארי האופטימלי נתון ע"י הנוסחה הפשוטה: ˆli cov ( Y, ) Yop EY+ ( E ) var המקרה הגאוסי אנו מאוד אוהבים משתנים אקראיים גאוסים. בנושא השערוך אנו מגלים כי המשערך הליניארי האופטימלי שווה למשערך האופטימלי. לכן כל הטיפול הקודם בשיערוך ליניארי של מ"א Y בהינתן מ"א ייתן את השיערוך האופטימלי של Y על סמך, כאשר, Yגאוסים במשותף (כלומר ), Y ( וקטור אקראי גאוסי). עבור המקרה הכללי יותר, כלומר שערוך אופטימלי של מ"א Y בהנתן וקטור ממימד, נקבל כי כאשר ), Y ( וקטור אקראי גאוסי, אזי המשערך האופימלי של Y על סמך הוא ˆ ˆ li Y Y EY+ cov ( Y, ) var E op op 44 אותות אקראיים, סיכום הקורס. אבי בנדל..www.hapeek.co.il
5 ε Y Yˆop ניצבת לכל עיקרון ההשלכה Yˆop הוא המשערך האופטימלי של Y בהינתן הוקטור אזי שגיאת השערוך אם פונקציה של המדידות, כלומר E εg E ( Y Yˆ ) g op לכל פונקציה חסומה g. מעקרון ההשלכה (כאשר בוחרים ), )g ( Yˆop ניתן לקבל כי { } { ε } ( ˆ ) MMSE E E Y Y EY EYˆ mi mi op op עבור המשערך הליניארי, נוכל לומר כי אם Y ˆli הוא המשערך הליניארי האופטימלי של op Y בהינתן הוקטור אזי ε Y Y ˆli ניצבת לכל פונקציה ליניארית של המדידות, כלומר op [ ] ( ˆli E εg ˆ li E Yop Y) ( αii) + b i שגיאת השערוך Z גם גאוסי, כלומר Y אם ), Y ( גאוסים במשותף, אזי f ( αβ, ) Y πσ e ( α µ ) σ cov ( Y, ) µ E [ Y] E+ ( Y EY ) vary ( ) cov Y, σ var var vary כאשר 44 אותות אקראיים, סיכום הקורס. אבי בנדל..www.hapeek.co.il
6 תהליכים אקראיים בזמן בדיד הגדרה תהליך אקראי בזמן בדיד ] [ N, הינו סדרה (סופית או אינסופית) של מ"א. N תהליך אקראי בזמן בדיד. או ωאו [, ] נסמן: ω ω פונקציה של הזמן,, המתקבלת כאשר מקפיאים את "גורם המזל" מסתכלים על ארוע מסוים בכל ציר הזמן.. ω -ω הערך של הפונקציה האקראית בנקודה [, ]. [, ω - המשתנה האקראי בזמן ] ומקבלים ], [,ω כלומר הגדרות...3 הגדרה חוק הפילוג של תהליך אקראי חוק הפילוג של תהליך אקראי הינו אוסף כל פונקציות הפילוג המוגדרות עבור סדרות זמנים סופיות מהצורה :,,..., N F ( α, α,..., α ) P [ ] α, [ ] α,..., [ ] α { },,..., N N N N N N.{ α i} { ולכל סדרה i} i i לכל N ולכל סדרה N,{ i} i מתקיים α הגדרה סטציונריות N ] [ נקרא תהליך סטציונרי אם לכל k שלמים ולכל סדרה } }ולכל סדרה i תהליך i F,,..., α, α,..., α,,...,,,..., N N F + k+ k N+ k α α αn הגדרות נוספות תוחלת של תהליך אקראי: µ [ [ ] פונקצית האוטוקורלציה: R(, ) E [ ] [ ] פונקצית הקווריאנס: K(, ) E ( [ ] E [ ] )( [ ] E [ ] ) R (, ) µ µ.iid תהליכים אקראיים שימושיים רעש לבן בזמן בדיד רעש לבן הוא סדרה של מ"א ] [ שהם הוא וקטור הילוך שיכור (הילוך אקראי) אם ] [ הוא רעש לבן, אזי הילוך אקראי מוגדר כלהלן: Y[ ] Y[ ] Y[ ] [ ] + i [] i תהליך אקראי גאוסי [ { } k ] [ יקרא גאוסי אם לכל סדרת זמנים ], [ ],... [ k] הוקטור, i תהליך i אקראי גאוסי. 44 אותות אקראיים, סיכום הקורס. אבי בנדל..www.hapeek.co.il
7 הגדרה ארגודיות יהי ] [ תהליך סטציונרי. אם לכל פונקציה חסומה g ב +k משתנים ולכל <k מתקיים: lim N g( [ ], [ + ],..., [ + k] ) Eg ( [ ], [],..., k [ ]) N N+ N אז נאמר כי ] [ הוא תהליך ארגודי. אינטאיטיבית, אם הממוצע האמפירי מתכנס לתוחלת אז אומרים ש תהליך ארגודי. עבור המקרה החד ממדי, תהליך סטציונרי הוא ארגודי אם מתקיים: lim N g( [ ]) Eg [ ( [ ])] N N+ N דוגמאות לתהליכים ארגודיים.iid תהליך [ ], [ ] c : דוגמא לתהליך לא ארגודי:, [ ] Y כאשר Y משתנה אקראי כלשהו. P שרשראות מרקוב הגדרה תהליך מרקוב (שרשרת מרקוב) ] [ תהליך אקראי. אם לכל < ו k },, ij }מתקיים: j,..., j k יהי [ + ] i [ ] j, [ ] j,..., [ k] j { } P{ [ + ] j [ ] j} k אז נקרא לתהליך שרשרת מרקוב.. הגדרה הסתברות המעבר להסתברות p { [ ] [ ] ji P + i j} נקרא הסתברות המעבר (בצעד יחיד) ממצב j למצב, i כאשר ל ] [ קראנו מצב התהליך ברגע נשים לב שהסתברות זו יכולה להיות גם תלויה בזמן,. ניתן להרחיב את ההגדרה להסתברות מעבר ב k צעדים: ( k) p P [ + k] i [ ] j ji { } הגדרה שרשרת מרקוב הומוגנית לשרשרת מרקוב המקיימת כי הסתברות המעבר ממצב i למצב, j כלומר p { [ ] [ ] ij P + j i} אינה תלויה בזמן, נקרא שרשרת הומוגנית. הערה לעיתים נראה בספרות את המונח "שרשרת סטציונרית" כדי לתאר שרשרת מרקוב הומוגנית, אך מונח זה מטעה מכיוון ששרשרת מרקוב הומוגנית אינה חייבת להיות תהליך אקראי סטציונרי. : j הגדרה מטריצה הסתברויות המעבר עבור תהליך מרקוב הומוגני, מטרציה המכילה באיבר ), ij ( את הסתברות המעבר ממצב i למצב p p p p p P { pij} ij, p p כמו הסתברויות המעבר, ניתן להרחיב את הגדרת המטריצה להיות מטריצת המעבר ב k צעדים: ( k) ( k) ( k) p p p ( k) ( k) p ( k) ( k) p P { p ij } ij, ( k) ( k) p p ( k) p ij אינו העלאה בחזקה, אלא סימון של מעבר ב k צעדים. שימו לב, 44 אותות אקראיים, סיכום הקורס. אבי בנדל..www.hapeek.co.il
8 הגדרה מרחב המצבים של שרשרת מרקוב זוהי הקבוצה שאיבריה הם כל המצבים האפשריים של השרשרת, ומסומנת סופית, או אינסופית ובת ומניה. S. קבוצה זו יכולה להיות הגדרה וקטור הסתברויות בזמן (וקטור פילוג) עבור תהליך מרקוב הומוגני, עבור סדרת המצבים i } N }נגדיר את וקטור ההסתברויות הרב מימדי הבא: k k (,,..., ) ( { i}, { i},..., { i} ) ν ν ν ν i i i k P P P k וקטור שורה זה נקרא גם וקטור הפילוג של השרשרת, בזמן. נדגיש שזהו וקטור שורה. הערה: ערכי, ij (מצבי התהליך) לאו דווקא שלמים. תהליך מרקובי נשאר מרקובי גם אם הופכים את ציר הזמן. (,...,, ( הוא וקטור עצמי שלה, מטריצת הסתברויות המעבר הינה מטריצה סטוכסטית, כלומר הוקטור מצד ימין, עם ערך עצמי. או במילים אחרות, סכום איברי כל שורה הוא. (אינטואיטיבית, סכום כל שורה i הוא סכום ההסתברויות להגיע ממצב i למצב כלשהוא) שרשרת מרקוב הומוגנית יכולה להיות מוגדרת ע"י מטריצת הסתברויות המעבר, או ע"י דיאגרמת מעברים. נוסחת צ'פמן-(אנדרי) קולמוגורוב: מטריצי, הנוסחה היא k ) p עובר על כל המצבים בין i ל, j כולל). באופן p p ( + m) ( m) ij ik kj k ( + m) ( m) m. P P P PP P. ν ν( ) נשים לב ν פונקצית ההסתברות של תהליך מרקוב ברגע ניתנת ע"י P שזהו וקטור שורה. ()ν וע"י מכאן ניתן להסיק כי חוק הפילוג של שרשרת מרקובית הומוגנית נקבע חד משמעית ע"י הפילוג מטריצת המעברים P. טענות...3.4.5 קצת על מרחב המצבים של שרשרת מרקוב. i j נסמן. p ij נאמר שמצב i מוביל למצב jאם קיים כך ש >. i j ייקראו מקושרים, ונסמן,i אם i מוביל ל j וגם j מוביל ל i, הצבים j כל מצב i מקושר לעצמו, גם אם אין קשת מעבר עצמית. יחס שקילות הוא יחס שמקיים:. רפלקסיביות: i i. סימטריות: i j j i.3 טרנזיטיביות: קבוצת קשירות של מצב i j, j k i k i: כל המצבים המקושרים למצב.i הגדרה קבוצה סגורה אם כל מצב בקבוצה A מוביל רק למצבים בקבוצה A, אזי נקרא לקבוצה A קבוצה סגורה. לכן, בדיאגראמאת המצבים, לא נראה חצים יוצאים מקבוצה סגורה. הגדרה מצב נשנה מצב i נקרא נשנה כאשר אם מתחילים ממצב i, מובטח שנחזור אליו מתי-שהוא, כלומר ישנה הסתברות ששוה להגיע אליו שוב בזמן כלשהוא לפחות פעם אחת. הגדרה מצב חולף מצב שאינו נשנה נקרא חולף., j חולף אם"ם לכל i מ"א). מצב (זהו i הפעמים שתהליך מבקר במצב Nכמספר i הגדרה שקולה: נגדיר EN i() j < הגדרה שרשרת חולפת שרשרת מרקוב שבא כל המצבים חולפים תקרא שרשרת חולפת הגדרה שרשרת פריקה שרשרת מרקוב שלה יותר מקבוצה סגורה אחת נקראת שרשרת פריקה. אחרת, שרשרת זו נקראת אי-פריקה. 44 אותות אקראיים, סיכום הקורס. אבי בנדל..www.hapeek.co.il
הגדרה פילוג סטציונרי עבור שרשרת מרקובית, פילוג 9 ν נקרא פילוג סטציונרי (או פילוג אינווריאנטי) אם ν ν ν ν טענות. מצב. בקבוצת קשירות, כל המצבים הם נשנים או כולם חולפים. בקבוצת קשירות סגורה, כל המצבים נשנים. בקבוצת קשירות לא סגורה, כל המצבים חולפים. i הוא נשנה אם"ם p ii 3. עבור שרשרת מרקובית הומוגנית, פילוג ν סטציונרי אם"ם.4.5.6.7 νp (שוב נזכיר כי וקטור הפילוג הוא ν ) ( ν( + ) ν( את וקטור שורה, ואכן כדי לחשב את הפילוג של המצב הבא, יש לכפול משמאל ) P הפילוג הנוכחי במטריצת המעברים). ()ν הוא פילוג סטציונרי, אזי השרשרת ההומוגנית היא תהליך אקראי סטציונרי. אם הפילוג ההתחלתי לכל שרשרת מרקוב הומוגנית סופית ישנו פילוג סטציונרי. אם השרשרת היא אי-פריקה,(idecomposable) אזי פילוג זה הוא יחיד. ערכי פילוג סטציונרי זה שונים מאפס רק עבור מצבים נשנים. שרשרת מרקובית בעלת מספר סופי של מצבים אינה חולפת, כלומר יש בה לפחות מצב נשנה אחד. כל שרשרת סופית ניתנת לפירוק למספר סופי של קבוצות סגורות, וקבוצה נוספת (אולי ריקה) של מצבים חולפים. בשרשרת עם מספר בר-מניה של מצבים, מספר קבוצות הקשירות לא בהכרח סופי, יתכן שאין אף קבוצת קשירות בעלת יותר ממצב אחד ויתכן שאין אף מצב נשנה. 44 אותות אקראיים, סיכום הקורס. אבי בנדל..www.hapeek.co.il
הגדרה תהליך אקראי בזמן רציף תהליך אקראי בקטע זמן a b יסומן תהליכים אקראיים בזמן רציף ω).{ (, כפונקציה של, a b} או { a b}.(, ω).( ω, ), פרמטר ה"מזל", ω התהליך הוא משתנה אקראי, כלומר עבור זמן קבוע נקבל מ"א ω, בקטע זמן, a b נקבל פונקציה דטרמיניסטית של הזמן ω עבור פרמטר מזל נתון פונקציה זו לא חייבת להיות רציפה. פונקציה זו תקרא פונקצית מדגם. כאן, ab יכולים להיות גם אינסופיים. הגדרה חוק הפילוג של תהליך אקראי בזמן רציף (), הוא אוסף כל הפונקציות חוק הפילוג של תהליך אקראי בזמן רציף, F { },,..., α,..., α,..., P α α.α,...,,..., לכל ולכל ו α מומנטים של תהליך אקראי התוחלת µ () E [ ()] פונקצית האוטוקורלציה R(, ) E פונקצית הקווריאנס K (, ) cov, R, µ µ הגדרה תהליך מנייה ()N הוא תהליך אקראי המקבל ערכים שלמים, ואינו יורד. תהליך מניה ]. [, מונה מספר אירועים שקרו בקטע ()N אז N ().[ s, ] מונה את מספר האירועים בקטע N() s N() אם נניח כי תכונות תהליך מנייה פשוט:.N()..N() N.. N() s N() אז s>.3 אם <s אז.4 אם הגדרה תהליך פואסון תהליך מנייה יקרא תהליך פואסון עם פרמטר קצב λאם:.n().. תוספות בקטעי זמן זרים בלתי תלויות.. P N( + ) N() λ + o.3 { } P{ N( + ) N() } o( ) f( ε) lim ε ε 44 אותות אקראיים, סיכום הקורס. אבי בנדל..www.hapeek.co.il.4 כאשר ε) f( ε) o( פירושו הגדרה שקולה: תהליך מנייה יקרא תהליך פואסון עם פרמטר קצב λאם: N ().. תוספות בקטעי זמן זרים בלתי תלויות. 3. מספר הארועים בכל אינטרוול באורך s מפולג פואסונית עם פרמטר,λs כלומר λs( λs) P{ N( + s) N() } e,,,,...!
מומנטים של תהליך פואסון תוחלת: µ N( ) λ מומנט שני : EN () λ+ ( λ) אוטוקורלציה: R ( N, ) λ mi {, } + λ תכונה של תהליך פואסון: {( [ () ] mod ) } ( P N + τ N + e λτ ) תהליך טלגרף () ייקרא תהליך טלגרף עם פרמטר λאם הוא מקיים את שלושת התכונות הבאות: תהליך () מקבל את הערכים + או בהסתברות שווה. בכל רגע נתון מספר חילופי הסימן בקטע זמן באורך τ נתון ע"י k λ( s) ( λ( s) ) e k P{ () () s k} k! k< מספר חילופי הסימן בקטעים זרים בלתי תלוי סטטיסטית. תכונה של תהליך טלגרף: { () } ( P + τ + e λτ ) P הגדרה מרקוביות של ת"א בזמן רציף < <... < < ולכל סדרת זמנים, ולכל, מרקובי אם לכל () ת"א () α α, ( ) α,..., α P{ α α}.,...,,,,..., α α ולכל סדרת זמנים לכל α { } () N ת"א 3() N() + N() בהתאמה, אזי λ λ ו ()N ת"א פואסונים אם קצבים ו N() אם. λ+ פואסוני עם פרמטר λ תהליך פואסון הוא מרקובי. הפרש זמני הקפיצות של תהליך פואסון בקצב λהוא משתנה אקראי המפולג מעריכית עם פרמטר λ. טענות...3 מומנטים של תהליך אקראי () אוטו-קורלציה של ת"א R(, ) E Y() לת"א () קרוס-קורלציה בין ת"א RY(, ) E Y קווריאנס: K(, ) E ( E )( E ) R(, ) µ µ הגדרה סטציונריות (,...,,, + τ),..., ( + (τ חוק הפילוג של הו"א τ יקרא סטציונרי אם לכל () ת"א לא תלוי ב. τ כלומר, F ( α ), α,...,,..., α,...,,,..., F α α α + τ + τ ( SSS נאמר שהת"א סטציונרי במובן הצר ) Saioary Sric Sese...3 44 אותות אקראיים, סיכום הקורס. אבי בנדל..www.hapeek.co.il
(, ) ( ) R R הגדרה סטציונריות במובן הרחב () יקרא סטציונרי במובן הרחב (סמ"ר) אם ת"א. µ () cos תוחלתו לא תלויה בזמן: פונקצית האוטוקורלציה שלו תלוייה רק בערך המוחלט של הפרש הזמנים: (כלומר זוהי פונקציה זוגית). כעת נאמר שהת"א סטציונרי במובן הרחב ) Saioary ( WSS Wide Sese תכונות פונקצית אוטוקורלציה של תהליך סמ"ר: E () R( ) R( τ). R ( τ) R ( τ). הגדרה סטציונריות במובן הרחב במשותף ()Y יקראו סמ"ר במשותף אם כל אחד מהם הוא סמ"ר ובנוסף ו () שני תהליכים אקראיים RY(, ) RY( ) ואז RY(, + τ) RY ( τ) RY ( τ) נדגיש את ההבדל בין פונקצית אוטוקורלציה של ת"א סמ"ר התלות אינה בערכו המוחלט של הפרש R Y איזה פונקציה זוגית. הזמנים, τ כלומר הגדרה סטציונריות במשותף,..., החוק של הוקטור ולכל יקראו תהליכים סטציונרים במשותף אם לכל (), ()Y ת"א ממימד, ( ( + τ),..., ( + τ), Y( + τ),..., Y( + τ) ) לא תלוי ב-. τ תכונות ת"א סטציונרים במשותף:. µ µ, µ Y µ Y.. τ לא תלוי ב- ( ( + τ), Y ( +. הפילוג הדו-מימדי ((τ R ( + τ, + τ) R (, ) R (,) R ( ).3 Y, Y, Y, Y, k) (,,..., ( הוא וקטור ) k },{ הוקטור i i הגדרה תהליך אקראי גאוסי () יקרא גאוסי אם לכל סדרת זמנים תהליך אקראי גאוסי. טענות...3.4 () תהליך סטציונרי (והמומנטים מסדר ראשון ושני סופי) אזי הוא תהליך סטציונרי במובן הרחב. אם ת"א גאוסי, אזי חוק ההסתברות שלו נקבע ע"י פונקצית התוחלת ופונקצית האוטוקורלציה. אם ת"א גאוסי סמ"ר הינו סטציונרי. פעולות לינאריות על תהליכים גאוסיים מייצרות תהליכים גאוסיים, לדוגמא d + ε g, g + h + α, g ( i) ( ),, lim i i+ i gd d ε ε i 44 אותות אקראיים, סיכום הקורס. אבי בנדל..www.hapeek.co.il
3 מעבר ת"א כללי במערכת גרעין מעבר תהליכים אקראיים במערכות לינאריות () מערכת גרעין (ליניארית), דטרמניסטית g( θ, ) Y().θ Y() ( θ) g(, θ) dθ כאשר ), θ g( התגובה בזמן ולכן ואז לכניסת הלם בזמן EY [ () ] E ( θ) g(, θ) dθ E [ ( θ) g(, θ) ] dθ µ ( θ) g(, θ) dθ RY(, ) E Y E ( θ) g(, θ) dθ R(, θ) g(, θ) dθ RY(, ) EY Y E ( θ) g (, θ) dθ ( η) g(, η) dη E ( θ) ( η) g(, θ) g(, η) dd θ η R( θη, ) g(, θ) g (, η) dd θ η מעבר ת"א סמ"ר דרך מערכת ליניארית קבועה בזמן () מערכת קונבולוציה, יציבה BIBO דטרמניסטית h ( θ) Y().θ Y() ( θ) h ( θ) dθ כאשר (θ h ( התגובה בזמן ולכן לכניסת הלם בזמן 44 אותות אקראיים, סיכום הקורס. אבי בנדל..www.hapeek.co.il
EY [ () ] E ( θ) h ( θ) dθ E( θ) h ( θ) dθ µ h θdθ µ H RY(, + τ) E [ () Y( + τ) ] E () ( θ) h ( + τ θ) dθ R ( θ) h ( + τ θ) dθ R ( θ) h( τ θ) dθ ( R * h)() τ [ ] () RY(, + τ) EY [ () Y( + τ) ] E ( θ) h ( θ) dθ ( η) h ( τ η) dη + R Y E ( θ) ( η) h ( θ) h ( + τ η) dηdθ R ( η θ) h ( θ) h ( + τ η) dηdθ S ( f) H( f) df () והמוצא 4 ואז תהליך הכניסה הספק ממוצע ביציאה: ()Y הם תהליכים סמ"ר במשותף. ou Y() P EY R S ( f) H( f) df d < תכונות.. תזכורת התמרת פוריה תהי () פונקציה דטרמניסטית. אם, אזי נגדיר את התמרת פורייה של האות: ˆ jπf ( f) F{ () } e d { } () ˆ ˆ j πf F f fe df F תכונות F { ( )} ˆ * ( f) ממשי אזי () אם. ( θ) h( θ) dθ התמרה של קונבולוציה: ) ( fhf. { } ˆ ˆ πifτ F{ ( + τ).3 הזזה בזמן: ) ˆ( f e } * * ˆ ˆ ( ) ( d ) ( f ) ( fdf ) תזכורת משפט פרסבל 44 אותות אקראיים, סיכום הקורס. אבי בנדל..www.hapeek.co.il
5 צפיפות הספק ספקטרלית ()Y (), ת"א סמ"ר במשותף בעלי ממוצעים אפס. נניח ש () מוגדרת כהתמרת פורייה של פונקצית האוטוקורלציה: צפיפות ההספק הספקטרלית של ת"א סמ"ר S( f) F{ R( τ) } צפיפות ההספק הספקטרלית המצטלבת של ת"א() Y () סמ"ר, במשותף מוגדרת כהתמרת פורייה של פונקצית הקרוסקורלציה: SY( f) F{ R Y τ} :H( f) () ע"י מעבר במערכת מתקבל מ ()Y אם LI בעלת פונקצית תמסורת S ( f) S ( f) H( f) Y S ( f) S ( f) H( f) Y Y Y τ Y F P S ( f) df S ( f) H( f) df S ( f) R τ () h (), H( f) Y() { } אזי והספק היציאה הכולל: S תכונות של S ממשית וסימטרית. R ממשית וסימטרית ולכן. f לכל S( f) עבור שני תהליכים סמ"ר במשותף חסרי קורלציה, בעלי תוחלת, מתקיים R+ Y( τ) R( τ) + RY ( τ) ואז, בתחום התדר: S+ Y( f) S( f) + SY( f) תא"ג העובר במערכת LI יוצר תא"ג....3.4.5 עד כה טיפלנו במקרה ש.E נבדוק מה קורה לגבי.E c+, כאשר EY ו c קבוע דטרמיניסטי. לכן נקבל נביט ב ) ( Y R ( τ) E [ () ( + τ) ] E ( c Y() ) ( c Y( τ) ) + + + c + EY [ () Y( + τ) ] c RY ( τ) S ( f) S ( f) + cδ( f) + Y 44 אותות אקראיים, סיכום הקורס. אבי בנדל..www.hapeek.co.il
6 סינון לינארי אופטימלי. r() () + () לכן במקלט מתקבל האות. () בדרך מתווסף אות רעש לא רצוי.() אנו משדרים אות.() אנו רוצים לתכנן מסנן (f )H כך שיציאתו, ˆ (), תהיה קרובה ככל הניתן לאות המקורי ששודר, () + Σ H( f) ˆ () () + נגדיר את השגיאה בתור ההפרש בין האות ששודר לבין האות שהצלחנו להפיק מהמסנן: ε ˆ אנו נחפש את המסנן הליניארי האופטימלי, במובן המוכר לנו משערוך משתנים ווקטורים אקראיים כלומר נחפש מסנן אופטימלי ליניארי, המביא למינימום את השגיאה הריבועית הממוצעת, :MMSE E ε E( () ˆ () ) ()r (), סמ"ר, חסרי קורלציה ובעלי תוחלת. אנו נניח בטיפול כי ()ε, הוא מוצא של מערכת ליניארית: ניתן לראות כי אות השגיאה, () + Σ r() H( f) ˆ () + Σ () + ε() ואז ε () () ( () + ()) * h () כעת נשרטט את המערכת בצורה שונה: + () H( f) ˆ () Σ + Σ ε() () + H( f) ε () () () * h () ()* h () () ( () + ()) * h () ε() () () * h () ()* h () () * δ() () * h () ()* h () () *( δ() h ()) ()* h () () ל () מקבלים כי השגיאה הריבועית הממוצעת היא E ε() S( f) H( f) df+ S( f) H( f) df ואז כמובן ולכן ומחוסר הקורלציה בין 44 אותות אקראיים, סיכום הקורס. אבי בנדל..www.hapeek.co.il
7 משיקולים גיאומטריים (במישור המרוכב) ניתן להחליף את (f )H ב (f )H ואז למצוא את המינימום ע"י גזירה והשוואה לאפס. בסוף מקבלים כי המסנן האופטימלי, שנקרא מסנן וינר ),(Wieer הוא S( f) Hop( f) S( f) + S( f) ואז הביטוי לשגיאה הריבועית הממוצעת (המינימלית) הוא S( fs ) ( f) MSE mi{ E ε() } E ε () df H( f) Hop( f) S ( f) + S ( f) (f )D לפני שידורו. הסכמה () ניתן להכליל מסנן זה ע"י כך שנעביר את האות המשודר המתאימה למצב זה, הכוללת את חישוב השגיאה, היא הבאה: במסנן כלשהוא () D( f) + + Σ H( f) ˆ () Σ + () ε() במקרה זה נקבל את מסנן וינר הבא: S( f) Hop( f) D( f) S( f) + S( f) ואז הביטוי לשגיאה הריבועית המינימלית הוא S { ()} ( fs ) ( f) MSE mi E ε E ε () D ( f) df H( f) Hop( f) S ( f) + S ( f) () r() () + הוא אות הדגימה ניתן לפתור בעיה זו בגישה שונה עקרון ההשלכה (עקרון הניצבות). כזכור, של האות המשודר, טבול ברעש (). באופן כללי התואם את הסכמה () r() H( f) ˆ () + Σ () ε() E ε E [ () r() * h ()] E ( θ) δ( θ) r( θ) h( θ) () hהתגובה להלם של המסנן. נכתוב כאשר 44 אותות אקראיים, סיכום הקורס. אבי בנדל..www.hapeek.co.il
עקרון ההשלכה קובע כי השגיאה ) ε ( ניצבת למדידות ) r) כ, לומר לכל s נקבל שהמסנן האופטימלי מקיים: E ( τ) δτ dτ r( τ) hop( τ) dτ rs E ( τ) rs δτ dτ rsr ( τ) hop( τ) dτ E [ ( τ) rs ] δτ dτ Ersr [ ( τ) ] h ( τ) dτ R ( s τ) δτ dτ R( s τ) h ( τ) dτ r, r op וע"י התמרת פורייה על שני האגפים נקבל F{ Rr, ( s τ) } F Rr( s τ) hop( τ) dτ S ( f) S ( f) H ( f) r, r op Sr, ( f) Hop( f) S ( f) r וזו תוצאה כללית יותר, מכיוון שאינה מניחה חוסר קורלציה בין האות המשודר לרעש המתווסף. בנוסף, לא הנחנו כי הדגימה היא הסכום (), ()r () + אלא יכול להתקיים כאן קשר כללי יותר, הבא לידי ביטוי בצפיפויות ההספק. op 8 44 אותות אקראיים, סיכום הקורס. אבי בנדל..www.hapeek.co.il
9 רעשים הגדרה רעש לבן רעש לבן הינו תהליך אקראי סטציונרי במובן הרחב, עם תוחלת, אשר עבורו מתקיים : S ( f) N N.S( f ) R τ Nδ τ הגדרה רעש לבן גאוסי זהו תא"ג () עם צפיפות ספקטרלית קבועה, בד"כ נבחר.S( f) משפט Paley-Wieer log Sf אם df< + f אזי קיים מסנן סיבתי כך שאם בכניסתו ר"ל, ביציאתו אינטגרלים של רעש לבן h() h(), פונקציות דטרמניסטיות עם,... יהיו. N יהי () אות רעש לבן בעל צפיפות הספק ספקטרלית אנרגיות סופיות, כלומר > ) d. h i ( נגדיר את המשתנה האקראי i h ( d ) אזי מתקיים: Ei E h () i() d Eh [ () i() ] d E [ ()] hi() d E () () () () i j E shi sds θhj θdθ E shi s ( θ) hj( θ) dsdθ Esh () () () i s θhj θ dsdθ Rs θhi s hj( θ) dsdθ () δ( s θ) hi s hj( θ) dsdθ N N h ( θ) h ( θ) dθ i j i N h ( θ) h ( θ) dθ i ( (, : ו"א עם תוחלת, ועם מטריצת קווריאנס: E E Λ E E θ θ E N h d E N h ( θ) dθ E N h ( θ) h ( θ) dθ i j נתבונן ב- בנוסף, אם ידוע כי () ת"א גאוסי אזי גאוסים במשותף, כלומר (, )וא"ג. h( θ) h( θ) dθ כמו כן מתקיים: ב"ת ב- אמ"ם 44 אותות אקראיים, סיכום הקורס. אבי בנדל..www.hapeek.co.il
H( f) 3 רוחב סרט אפקטיבי לרעש נביט במסנן LPF לא אידיאלי: F אם נגדיר H( f) df, F H( f) כאשר המונה הוא הספק היציאה של רעש לבן, אזי נוכל להגדיר LPF אידיאלי בעל רוחב פס הספק היציאה כמו המסנן הלא-אידיאלי, עבור כניסת רעש לבן. רעשים תרמים רעש נגד (רעש (Nyquis שיעביר את אותו F f נגד פיסיקלי שיווי משקל תרמודינמי 44 אותות אקראיים, סיכום הקורס. אבי בנדל..www.hapeek.co.il
3 טענות:. רשת חסרת הפסדים איננה יוצרת רעש.. S( f) KR B. רעש הנגד הוא רעש לבן טענות נוספות: R, R+ R R, S k ( R + R) B S k B RR + RR ( R + R) R, R, ניתן להסיק כי R + R Reff R+ R, eff. בחיבור בטור: R+ R RR R + R Reff ( R R), eff. בחיבור במקביל: R + R R + R. R v () R i () S i f kg S ( f) kr v V ir EVV ( + τ) REii ( + τ) S f RS f v i Si( f) S, v f kg G R R 44 אותות אקראיים, סיכום הקורס. אבי בנדל..www.hapeek.co.il
מ 3 משפט ג' רשת פסיבית Zi( f ) Ri ( f ) + i הכוללת סלילים i( f ),נגדים וקבלים. S ( f ) kr ( f ) v i רעש דיודה Noise) (Sho טענה אם נגריל מ"א פואסוני K עם פרמטר.λ הוא ייצג את מספר הקפיצות באינטרוול [,]. כעת נגריל באופן בלתי תלוי k מ"א אחידים על [,]. אזי התהליך האקראי הנ"ל הוא תהליך פואסון. כעת נעבור למעגל חשמלי הכולל דיודה ומטרתנו תהיה למצוא את רעש הדיודה. I נסמן ב I דרך הדיודה. qאת מטען האלקטרון ונניח שאנו מזרימים זרם קבוע I ומטען האלקטרון היה אפס אזי הצפיפות הספקטרלית של הזרם, לו היה זורם זרם קבוע Sf Iδ( f) אם ניקח בחשבון את מטען האלקטרון אזי נצפה לקבל, Sf Iδ( f) + S ( f) S (רעש הדיודה) מטרתנו לחשב את f אלקטרון הנפלט בזמן משרה במעגל זרם q :,i e ולכן ie( d ) I אלקטרונים. מאחר והאלקטרונים נפלטים מאיזורים שונים בקטודה סביר בקטע הזמן יפלטו בממוצע / q להניח שיש אי תלות בין זמני הפליטה. נוכל, לכן, להניח שתהליך פליטת האלקטרונים הוא תהליך פואסון. לכן, כך שמתקיים: - מ "א אחידים של [,]. K I i ( ) e k k k "א פואסון עם פרמטר.λ קצב פליטת האלקטרונים,.λ I q K 44 אותות אקראיים, סיכום הקורס. אבי בנדל..www.hapeek.co.il
33 נמצא את המומנט הראשון, K q q I EI EE ie( k) K EK ie( θ) dθ EK [ ] I k Ergodiciy q נמצא את המומנט השני, K R( τ) EII [ ( + τ)] E[ i ( + τ ) i ( )] K e k e j k j E i ( + τ ) i ( ) + E i ( + τ ) i ( ) e k e k e k e j k k j ( τ) e( + τ) e K ( EK) ie( ) ie( ) d EK ( K) i e ie dd + τ θ θ θ+ + τ θ η θ η EK EK ( K) ie( τ+ θ) ie( θ) dθ+ q EK ( K) ( λ ) EK λ R I q i i I * Sf Iδ( f) + Ge( fg ) e ( f) q where, G ( f) F{ i } e e for he low frequecy G ( f) G () q e e ולכן, S ( f) Iδ( f) + Iq I. τf S f Iq לכן רעש הדיודה הינו: בקירוב התדר הנמוך, המקיים 44 אותות אקראיים, סיכום הקורס. אבי בנדל..www.hapeek.co.il
34 נספחים טורי טיילור ידועים + x six ( ) ( + )! l( ) x + x cosx ( ) + x ( )! x x e x x! sihx x l( x) x x + e e x ( + )! ומהם ניתן לפתח: + x x x arca( x) ( ) e ( ) +! x x e + e x coshx ( )! זהויות טריגונומטריות si( θ+ ϕ) + si( θ ϕ) siθ cosϕ cos( θ ϕ) cos( θ+ ϕ) siθ siϕ cos( θ+ ϕ) + cos( θ ϕ) cosθ cosϕ si si cos cos cos si z z z α± β α β siα± siβ si cos α+ β α β cosα+ cosβ cos cos α+ β α β cosα cosβ si si si( α± β) siα cosβ± siβ cosα cos( α± β) cosα cosβ siα siβ 44 אותות אקראיים, סיכום הקורס. אבי בנדל..www.hapeek.co.il
35 התמרת פורייה בזמן רציף התמרות פורייה ידועות התמרת פורייה e k k jπf δ( f) k δ f aδ( f kf) k f f δ ( δ( f f) + δ( f+ f) ) ( δ( f f) δ( f+ f) ) j si( πfk ) δ ( f kf ) π k k f < f f > f f < f f f > f + δ( f), f jπf δ( f), f, Re( a) > a+ jπf, Rea > ( a+ jπf), Rea > ( a+ jπf), f jπf, f k sic( πf) j π δ ( f) ( f) δ( f) ( f) jπ f + x( + ) x() ω π אות בזמן רציף δ() δ( ) k k δ( k) ae k j f e π jkπf cos( πf) si( πf) < x(). וכן < siπf sic( πf ) π siπf sic( πf ) πf u () ( sig () + ) a e u () a e u () a e u () ( )! > sig() < k < > x( τ) dτ ( x * u)(), 44 אותות אקראיים, סיכום הקורס. אבי בנדל..www.hapeek.co.il
σ ( πf) σ π exp e σ 36 תכונות של התמרת פורייה אות בזמן רציף ax() + by () התמרת פורייה a( f) + by( f) x( f) ω a a jω e ( ω) ( ω ω), ω R ( ) ω ω + ω+ ω ( ω ω) ( ω+ ω) j ( ω) Y( ω) ω π Y ω Re Im arg ( jω) ( ω) ( ω) + π δ( ω) jω d j ( ω) dω ω ω { ( ω) } Re ( ω) { } { ( ω) } Im ( ω) ω ω { } { ( ω) } arg ( ω) { } ω (התמרת ממשית) ( ω) ( ω) ( ω) ( ω) ω * () x( a), a R x( ) jω e x() x() cos( ω) x() si( ω) x() y () x() y () d () x d x d x() τ τ * x() x () (אות ממשי) * x () x( ) x() x( ) x() x( ) תכונה ליניאריות סימטריה (דואליות) מתיחה וכיווץ (Scalig) הזזה בזמן הזזה בתדר מכפלה ב cos מכפלה ב si קונבולוציה בזמן קונבולוציה בתדר גזירה בזמן אינטגרציה בזמן גזירה בתדר עקרון הדואליות x(), F{ אזי: } ( f) :x() נסמן את התמרת פורייה של אות F{ () } x( f) 44 אותות אקראיים, סיכום הקורס. אבי בנדל..www.hapeek.co.il
37 התמרת Z הגדרה התמרת Z דו-צדדית התמרת Z דו-צדדית: (המקבילה להתמרת לפלס דו-צדדית, עבור אותות בזמן בדיד) { } xz [ ], z z Z x () [ ] C הגדרה התמרת Z חד-צדדית התמרת Z חד-צדדית: (המקבילה להתמרת לפלס חד-צדדית, עבור אותות בזמן בדיד) { } xz [ ], z z Z x () [ ] + + ROC, הוא התחום בו מתקיים RegioOf Covergece x [ ] [ ] x z < xz,z z zdz, C ROC{ z} πj k [ ] () C C תחום ההתכנסות של התמרת חישוב התמרת Z הפוכה: אם מעגל היחידה z שייך לתחום ההתכנסות, אזי פשוט יותר לבצע את האינטגרציה על מעגל זה: x π jθ jθ e e dθ π [ ] :ROC π z r ועבור r, כלומר מעגל כללי ברדיוס, המוכל ב jθ jθ x [ ] r ( re ) e dθ π m m ( a+ b) ab m שיטות נוספות למציאת התמרה הפוכה: טור חזקות של האות פירוק לשברים חלקיים שימוש בנוסחת הבינום של ניוטון,x [ ] עבור אות בזמן בדיד נגדיר את דגימת ההלמים שלו( k x () )x (k )δ (כלומר נביט באת בזמן c k רציף בו בכל נקודה ש [ ]x היה מוגדר, ישנו הלם, ובזמנים אחרים האות הרציף הוא זהותית אפס), ואז ניתן לקבל את הקשר בין התמרת לפלס של האות הרציף (דגימת הלמים) להתמרת Z של סדרת המספרים (האות הבדיד):. L{ x ()}() { [ ]}() c s Z x z s z e 44 אותות אקראיים, סיכום הקורס. אבי בנדל..www.hapeek.co.il
38 התמרות Z ידועות תחום התכנסות z C התמרת Z אות בזמן בדיד, δ[ ], z C \{}, m> C, m C \{ }, m< z > z < z > a, a C z < a, a C z > a, a C z m z z z z z z z az z a z az z a az az az z a, m δ[ m], m u [ ],, < u[ ] au [ ] au[ ] au [ ] z < a, a C z > z > z > r z > r z > a, a C z < a, a C az az ( az ) z a z z cosω z z cosω + z siω z z cosω + z rz cosω cosω + r z rz rz siω z rz cosω + r z z + z z + b b z z z z a z a z a z a au[ ] r r cos[ Ωu ] [ ] si[ Ωu ] [ ] cos[ Ωu ] [ ] si[ Ωu ] [ ] π si u π cos u [ ] [ ] b a u [ b] a u [ ] a u[ ] 44 אותות אקראיים, סיכום הקורס. אבי בנדל..www.hapeek.co.il
39 התמרת Z () z Y() z תכונות התמרת Z אות בזמן בדיד x [ ] y [ ] תחום התכנסות ROC ROC Y לפחות ROC ROC ROC בתוספת אולי של z ROC רדיוסי ההתכנסות מוכפלים ב a רדיוס ההתכנסות הוא ההופכי של הרדיוס המקורי Y a() z + by() z בהתמרה דו-צדדית: () z z בהתמרה חד-צדדית: רדיוס ההתכנסות הוא רדיוס המקורי בחזקת k לפחות ROC ROCY לפחות ROC { z : z > } ROC k k k m + + m Z { y [ + k] } zy () z z y( m) z k k k m + + m Z { y [ k] } z Y () z z y( m) z Z { [ ]} () + y+ zy+ z zy() Z { y [ ] } z Y () + + z + y( ) jω e z a z ( z ) k ( z ) () zy() z z z * ( z) d z z dz () () * () z ( z *) * () z ( z *) + + ax [ ] + bx [ ], ab, C x [ ] jω e x [ ] ax [ ] x[ ] xr [ ], rk, else x [ ]* y [ ] xk [ ] k [ ] x x [ ] xy [ ] [ ] x [ ] x [ ] k x xk [ ] [ ] ] [ x ממשי 44 אותות אקראיים, סיכום הקורס. אבי בנדל..www.hapeek.co.il
:(Discree ime Fourier rasform),x נגדיר את התמרת פורייה בזמן בדיד: 4 התמרת פורייה בזמן בדיד הגדרה התמרת פורייה בזמן בדיד עבור אות בזמן בדיד ] [ Ω j ( Ω ) xe [ ], Ω R את ההתמרה ההפוכה נחשב ע"י π jω x [ ] ( Ω) e dω π π הערות/תוצאות:. באופן דואלי להתמרת לפלס ופורייה בזמן בדיד, התמרת פורייה בזמן בדיד קיימת כאשר התמרת Z של האות קיימת (מתכנסת) עבור z, ואז, כאשר התמרת פורייה בזמן בדיד ו התמרת Z: ] [ x רק על סמך Z F F j ( Ω ) ( z e Ω ) Z התמרת פורייה בזמן בדיד מחזורית במחזור של π. התמרת פורייה של אות היא מחזורית אם"ם האות בדיד. התמרת פורייה של אות היא סימטרית (זוגית) אם"ם האות ממשי. * כאשר האות ] x[ ממשי, מתקיים Ω), ( Ω ) ( כלומר ניתן לשחזר את האות ידיעת Ω) ) בקטע,π].[ משפטי פרסבל המתאימים (וע"י שימוש במחזוריות- π של התמרת פורייה בזמן בדיד): π x [ ] ( Ω) dω ( Ω) dω π π π * * * xy [ ] [ ] ( Ω) Y ( Ω) dω ( Ω) Y ( Ω) dω π π π π xc() שנדגם לאות בדיד הקשר בין התמרת פורייה בזמן בדיד להתמרת פורייה בזמן רציף, עבור אות רציף ע"י ) x [ ] xc( הוא: Z{ x [ ]}() z { z e j Ω L xc }() s Ω π π s j..3.4.5.6.7 44 אותות אקראיים, סיכום הקורס. אבי בנדל..www.hapeek.co.il
4 התמרות פורייה בזמן בדיד ידועות e התמרת פורייה בזמן בדיד Ω j j e Ω + πδ( Ω πk) k π δ( Ω ω πk) k π δ( Ω ω πk) + δ( Ω+ ω πk) π j k k k δ( Ω ω πk) δ( Ω+ ω πk) π δ( Ω πk) k π πk δ Ω k, πk Ω πk+ α, πk+ α<ω πk+ π אות בזמן בדיד, δ[ ], δ[ ], u [ ], < k j e ω cosω siω δ( k) α α siα sic, α π π < < π π 44 אותות אקראיים, סיכום הקורס. אבי בנדל..www.hapeek.co.il
4 תכונות התמרת פורייה בזמן בדיד e Ω j אות בזמן בדיד x [ ] התמרת פורייה בזמן בדיד ( Ω) π Y( Ω) a( Ω ) + by( Ω) π j ( Ω) e Ω ( Ω ω ) * ( Ω) ( Ω) Y( Ω) () sy( Ω sds ) Ω j ( e ) ( Ω) ( Ω ) + π( Ω) δ( Ω πk) k d j ( Ω) dω * ( Ω ) ( Ω) Re( Ω ) Re( Ω) Im( Ω ) Im( Ω) ( Ω ) ( Ω) arg( Ω ) arg( Ω) y [ ] ax [ ] + bx [ ], ab, C x [ ] jω e x [ ] x [ ] x [ ]* y [ ] xy [ ] [ ] x [ ] x [ ] k xk [ ] x [ ] ] [ x ממשי 44 אותות אקראיים, סיכום הקורס. אבי בנדל..www.hapeek.co.il